Từ tháng 5/1999 - 6/2002: Phó Chánh văn phòng - Thư ký Tổng Giám đốc Ngân hàng Thương mại cổ phần Công thương Việt Nam (VietinBank)

Từ tháng 7/2002 - 10/2003: Trưởng Ban thư ký Hội đồng quản trị Ngân hàng Thương mại cổ phần Công thương Việt Nam (VietinBank)

Từ tháng 8/2008 - 10/2010: Giám đốc Ngân hàng Thương mại cổ phần Công thương Việt Nam (VietinBank) - Chi nhánh Thanh Xuân

Từ tháng 10/2010 - 1/2012: Giám đốc Ngân hàng Thương mại cổ phần Công thương Việt Nam (VietinBank) - Chi nhánh Đống Đa

Từ tháng 1/2012 - 6/2012: Phó Tổng Giám đốc Ngân hàng Thương mại cổ phần Công thương Việt Nam (VietinBank)

Từ tháng 6/2012 - 7/2013: Chánh Văn phòng Ngân hàng Nhà nước Việt Nam

Từ ngày 29/7/2013: Tổng Giám đốc Ngân hàng Thương mại cổ phần Ngoại thương Việt Nam (Vietcombank)

Từ ngày 1/11/2014 - 4/2018: Chủ tịch Hội đồng quản trị Ngân hàng Thương mại cổ phần Ngoại thương Việt Nam (Vietcombank) nhiệm kỳ 2013-2018

Từ ngày 27/4/2018: Chủ tịch Hội đồng quản trị Ngân hàng Thương mại cổ phần Ngoại thương Việt Nam (Vietcombank) nhiệm kỳ 2018-2023

Từ ngày 10/7/2020: Tại Đại hội Đảng bộ Ngân hàng Thương mại cổ phần Ngoại thương Việt Nam (Vietcombank) lần thứ IV, nhiệm kỳ 2020-2025, đồng chí tái đắc cử Bí thư Đảng ủy

Từ ngày 29/7/2020: Ủy viên Ban Thường vụ Đảng ủy Khối Doanh nghiệp trung ương nhiệm kỳ 2015-2020.

Ngày 30 tháng 1 năm 2021, Tại Đại hội Đảng Cộng sản Việt Nam khóa XIII, ông được bầu làm Ủy viên Trung ương Đảng khóa XIII[2].

Ngày 3 tháng 7 năm 2021, đồng chí Trương Thị Mai, Trưởng Ban Tổ chức Trung ương đã trao quyết định của Bộ Chính trị về việc đồng chí Nghiêm Xuân Thành, Ủy viên Trung ương Đảng, Ủy viên Ban Thường vụ Đảng ủy Khối Doanh nghiệp Trung ương, Bí thư Đảng ủy, Chủ tịch Hội đồng quản trị Ngân hàng Thương mại cổ phần Ngoại thương Việt Nam, thôi tham gia Ban Chấp hành, Ban Thường vụ Đảng ủy Khối Doanh nghiệp Trung ương nhiệm kỳ 2020-2025 và thôi giữ chức Chủ tịch HĐQT Ngân hàng Vietcombank; điều động, chỉ định tham gia Ban Chấp hành, Ban Thường vụ và giữ chức Bí thư Tỉnh ủy Hậu Giang, nhiệm kỳ 2020-2025.